Lúc nhà Ngô suy yếu, một số thủ lĩnh địa phương nổi dậy cát cứ không thần phục triều đình.

Năm 951, Đinh Bộ Lĩnh ở động Hoa Lư – con Thứ sử châu Hoan đã mất là Đinh Công Trứ – dựa vào vùng núi khe hiểm yếu, không chịu tuân lệnh triều đình. Hai vua Ngô muốn cất quân đi đánh; Bộ Lĩnh sợ, sai con là Đinh Liễn vào triều làm con tin để ngăn chặn việc xuất quân. Hai vua Ngô vương trách Bộ Lĩnh không tự mình đến chầu, rồi bắt giữ Đinh Liễn đem theo quân đi đánh Hoa Lư.

Quân Ngô tấn công hơn một tháng, không đánh nổi. Hai vua Ngô bèn treo Đinh Liễn lên ngọn sào, sai người bảo Bộ Lĩnh, nếu không chịu hàng thì giết Liễn. Nhưng Bộ Lĩnh vẫn không thần phục, lại sai hơn 10 tay nỏ nhắm con mình mà bắn[6]. Ngô Xương Ngập và Ngô Xương Văn kinh sợ nói rằng:

Vì vậy hai anh em vua Ngô không giết Đinh Liễn mà đem quân về.

Sau khi Thiên Sách vương mất, thủ lĩnh ở quận Thao Giang là Chu Thái quật cường không thần phục nhà Ngô. Nam Tấn vương thân chinh đi đánh, chém được Chu Thái. Từ trận thắng ấy, Nam Tấn vương sinh kiêu[5]. Năm 965, ông đi đánh thôn Đường và thôn Nguyễn ở Thái Bình, bị phục binh bắn nỏ chết.

Ngô Xương Văn chết, con của Ngô Xương Ngập là Ngô Xương Xí nối nghiệp, nhưng thế lực ngày càng yếu kém. Theo Khâm định Việt sử Thông giám cương mục, trong triều đình Cổ Loa, các đại thần họ Kiều, họ Dương làm loạn (có sách lại nói các đại thần làm loạn là Lã Xử Bình và Kiều Tri Hựu)[5]. Xương Xí phải lui về giữ đất Bình Kiều (có sách nói Bình Kiều ở Hưng Yên, lại có thuyết cho rằng ở Thanh Hóa[7]).

Từ năm 966, hình thành 12 sứ quân cát cứ, sử sách gọi là loạn 12 sứ quân, trong đó có người trong hoàng tộc nhà Ngô (Ngô Xương Xí, Ngô Nhật Khánh), các tướng nhà Ngô (Phạm Bạch Hổ, Đỗ Cảnh Thạc, Kiều Công Hãn) và số lớn là các thủ lĩnh địa phương tự nổi dậy (Kiều Thuận, Trần Lãm, Nguyễn Khoan, Nguyễn Thủ Tiệp, Nguyễn Siêu, Lý Khuê, Lã Đường). Thời kỳ này kéo dài đến năm 968 thì bị Đinh Bộ Lĩnh dẹp xong và lập ra nhà Đinh.